More Correct Mass, Worse Answers: Why Power Sampling Can Fail and How to Fix It
更多正确质量，更差答案：Power Sampling 为何失败及修复
🧭 Power Sampling 推理时采样修正 ★ 深度解读
State Key Laboratory of General Artificial Intelligence, Peking University
揭示 Power Sampling 提升正确轨迹概率却伤害自洽性聚合，提出 Relative-Rank SoftSat 与重要性加权修复
📌 工作参考价值（4 点）
- 在 LLM 多路生成投票、Agent 决策聚合或生成式推荐候选排序中，避免直接用模型全局概率/置信度做幂次加权（类似 p^α 或降低温度）。它可能放大单一高概率错误路径，压制多个中等概率正确路径的集体支持；改用 prompt 内相对排名（percentile）并对 top 项做饱和增益，可保留投票所需的中尾部多样性。
- 对不同 prompt/上下文做候选打分时，不要直接比较绝对 log-likelihood，否则同一阈值在不同问题上效果差异很大（dose mismatch）。先做 per-prompt 分位标准化再做 reweighting，能更稳定地控制分布变形强度。
- 固定推理预算下，可把从 sharpened 目标分布重复采样 N 次替换为从 Base 分布采样 N 条后用重要性权重聚合，文中在 MoreHopQA 上选择一致率达 99.55%，延迟降低 7.42 倍；适合线上 LLM 候选生成/投票，无需额外模型调用。
- 评估多候选推理或生成式推荐结果时，不要只看 pass@k 或 top-1 正确率，要监控 answer-level margin 和正确答案的覆盖结构；全局 sharpening 可能提升正确轨迹总质量但降低 gold-answer margin，导致最终聚合变差。